Công việc bắt đầu vào những năm 1980 dưới tên gọi chương trình FS-X, và được đánh dấu bằng bản ghi nhớ trong thái độ nghiêm túc của cả Nhật Bản và Hoa Kỳ. Chương trình với mục đích tạo ra loại máy bay chiến đấu mới từ mẫu F-16 Fighting Falcon, ban đầu được giao cho General Dynamics (sau đó chuyển cho Lockheed Martin vào năm 1993). Lockheed Martin và Mitsubishi Heavy Industries cùng hợp tác phát triển và sản xuất máy bay, công ty nhận các hợp đồng phụ là Mitsubishi, một số công việc trên thực tế được phát triển bởi General Dynamics, hãng đã chuyển công việc cho Lockheed Martin vào năm 1993. Về bản chất F-2 là sự thể hiện của F-16 Agile Falcon một phiên bản mở rộng của F-16 vào những năm 1980, khi mà Lầu Năm Góc đang dành sự thiện cảm cho chương trình máy bay chiến đấu mới (Joint Strike Fighter). F-2 sử dụng bản thiết kế đôi cánh giống như F-16 Agile Falcon. Toàn bộ những thiết kế có ý định bổ sung cho F-16 của General Dynamics khi đó cũng không có lợi thế nổi bật trước Su-27 và MiG-29.

Người Nhật Bản có thể chế tạo được 98 chiếc, với cái giá chi phí quá lớn là 100 triệu USD một chiếc vào năm 2004. Nhiều công nghệ của F-16 được sử dụng trong F-2 đã trở thành đề tài cho những cuộc tranh luận chính trị ở Hoa Kỳ và Nhật Bản vào đầu những năm 1990. Tuy nhiên sự chuyển giao công nghệ theo sự ủy quyền từ Hoa Kỳ vẫn tiếp tục và dự án vẫn triển khai.

F-2 có cái tên Nhật là "Viper Zero", từ những người phi công khi họ lấy tên không chính xác của F-16 và A6M Zero, trước khi 2 chiếc được trịnh trọng tuyên bố đưa vào sử dụng vào năm 2000. Phi công gọi nó là "F-2 Charmer" (người bỏ bùa), họ ví nó như người dụ rắn.